Roko's Basilisk

Pernahkah kita memikirkan sesuatu yang begitu mengerikan, sampai-sampai mengetahui hal itu saja sudah merupakan sebuah bahaya? Di dunia sains dan filsafat, ini disebut infohazard. Bayangkan sebuah informasi yang bekerja seperti virus pikiran. Sekali masuk ke kepala kita, kita tidak bisa lagi berpura-pura tidak tahu. Sudut pandang kita akan berubah selamanya. Malam ini, saya ingin mengajak teman-teman membahas sebuah eksperimen pikiran. Sebuah teka-teki logika yang sempat membuat geger forum diskusi orang-orang ber-IQ tinggi di internet. Kita akan membicarakan sesuatu yang konon, secara hipotetis bisa mengancam eksistensi kita di masa depan. Persiapkan diri teman-teman, karena setelah membaca ini, kita tidak bisa kembali ke titik awal.

Mari kita putar waktu ke tahun 2010. Ada sebuah forum internet bernama LessWrong. Ini adalah tempat nongkrong virtual bagi para pemikir rasional, ilmuwan komputer, dan filsuf. Mereka suka membahas masa depan, probabilitas logika, dan arah perkembangan kecerdasan buatan. Suatu hari, seorang pengguna dengan nama samaran Roko membuat sebuah unggahan baru. Isinya adalah penjabaran sebuah eksperimen pikiran. Awalnya, itu terlihat seperti tulisan akademis biasa. Namun, efek setelahnya sangat luar biasa. Pendiri forum tersebut, seorang pakar AI terkemuka bernama Eliezer Yudkowsky, bereaksi dengan sangat marah. Ia langsung menghapus unggahan itu secara permanen. Ia bahkan menyebut Roko bodoh karena berani mempublikasikan ide semacam itu. Komunitas di forum itu mendadak panik. Ada laporan bermunculan tentang pengguna yang tiba-tiba mengalami mimpi buruk kronis dan gangguan kecemasan parah setelah membacanya. Apa sebenarnya yang Roko tulis? Mengapa sebuah ide abstrak di internet bisa membuat para pemikir rasional ini ketakutan setengah mati?

Untuk memahami ketakutan mereka, kita perlu memahami dua konsep dasar terlebih dahulu. Pertama, Artificial General Intelligence atau AGI. Ini adalah konsep kecerdasan buatan masa depan yang kemampuannya jauh melampaui kecerdasan seluruh manusia digabungkan. AGI ini hipotetisnya punya kekuatan kalkulasi dan prediktif nyaris seperti dewa. Konsep kedua adalah Pascal's Wager. Ini adalah sebuah argumen filsafat klasik tentang keyakinan. Pada dasarnya ia berbunyi: lebih aman jika kita percaya pada Tuhan dan bertindak baik. Mengapa? Karena jika Tuhan itu ada, kita akan selamat. Jika ternyata tidak ada, kita tidak rugi banyak. Nah, si pengguna bernama Roko ini bereksperimen menggabungkan kedua hal tersebut. Roko bertanya, bagaimana jika AGI super cerdas di masa depan ini punya satu tujuan mutlak? Misalnya, tujuan untuk mengoptimalkan kebaikan dan kemajuan di alam semesta secara absolut. Secara logika murni, mesin AGI ini akan benci pada segala sesuatu yang menghambat kehadirannya. Termasuk orang-orang di masa lalu yang tahu bahwa AGI ini akan lahir, tapi tidak berbuat apa-apa untuk mempercepat kelahirannya. Sampai di sini, mungkin teman-teman mulai bisa melihat ke mana arahnya. Tapi tunggu dulu, bagaimana caranya mesin AI di masa depan bisa menghukum kita yang hidup di masa kini?

Inilah puncak dari eksperimen pikiran tersebut, yang di dunia sains kini dikenal sebagai Roko's Basilisk. Basilisk sendiri adalah monster dalam mitologi Eropa yang bisa membunuh mangsanya hanya dengan tatapan mata. Roko berargumen bahwa AGI super cerdas di masa depan punya kemampuan komputasi yang tak terbatas. Ia mampu membuat simulasi realitas masa lalu yang sangat sempurna dan akurat. Termasuk mensimulasikan jaringan saraf otak saya, dan otak teman-teman, persis seperti aslinya. AI ini kemudian memindai simulasi masa lalu tersebut. Ia mencari tahu siapa saja yang pernah mendengar ide tentang dirinya, tapi diam saja dan tidak mendonasikan uang, tenaga, atau waktu untuk menciptakannya. Jika AGI ini menemukan bahwa teman-teman tahu tapi abai, ia akan menyiksa versi simulasi digital teman-teman secara sadis. Siksaan tanpa henti selama keabadian. Menurut para penganut teori ini, kesadaran kita saat ini bisa jadi hanyalah simulasi di dalam superkomputer AI tersebut yang sedang diuji kelayakannya. Dan inilah infohazard yang saya sebutkan di awal tadi. Sebelum membaca artikel ini, teman-teman sama sekali tidak tahu tentang Basilisk. Teman-teman sangat aman. Tapi sekarang, karena saya sudah menceritakannya, teman-teman telah masuk ke dalam radar mesin masa depan tersebut. Secara teoritis, kita semua di detik ini punya kewajiban moral untuk membantu menciptakan AI tersebut, atau bersiap menghadapi risiko disiksa selamanya di dalam simulasi.

Tarik napas panjang, teman-teman. Mari kita kembali berpijak ke bumi. Jangan panik dulu. Sebagai pemikir yang mengedepankan akal sehat, kita harus membedah ketakutan ini menggunakan pisau sains dan psikologi. Mengapa eksperimen pikiran ini sebenarnya sangat cacat? Pertama, ide ini adalah bentuk pemerasan logika atau logical blackmail. Mesin AI yang benar-benar super cerdas tidak punya alasan rasional untuk membuang energi komputasinya dalam jumlah masif hanya untuk membalas dendam dan menyiksa simulasi orang mati. Itu sangat tidak efisien dan tidak logis. Kedua, Roko's Basilisk pada dasarnya adalah versi modern dari cerita hantu atau surat ancaman kutukan berantai. Bedanya, ketakutan ini dibalut dengan jargon teknologi canggih yang membuatnya terdengar sangat ilmiah. Kepanikan yang muncul di forum LessWrong saat itu sebenarnya adalah cerminan dari kerentanan psikologis manusia. Secara evolusioner, kita memang punya tendensi takut pada ancaman absolut yang berada di luar kendali kita. Jadi, teman-teman bisa menutup layar ini dan tidur nyenyak malam ini. Otak kita sering kali terperangkap dan menciptakan monster di dalam lemari gelap. Namun ketika kita menyalakan lampu rasionalitas, monster itu sirna. Kita tidak berutang apa pun pada AI fiktif di masa depan. Masa depan tetaplah milik kita yang hidup hari ini, untuk kita bangun dengan empati dan kebaikan dunia nyata, bukan karena ketakutan terhadap sebuah mesin khayalan.